Ngay từ nhỏ, Tô Hữu Bằng đã rất yêu âm nhạc, rất có ấn tượng với giọng ca của nữ ca sĩ Madonna. Sự nghiệp chính thức được bắt đầu năm 1988, khi anh tham gia tuyển chọn chương trình "Thanh xuân đối kháng".

Ngày 27 tháng 7 năm 1988, nhóm Tiểu Hổ Đội được thành lập gồm 3 thành viên gồm Ngô Kỳ Long (Phích Lịch Hổ: hổ mạnh mẽ), Trần Chí Bằng (Tiểu Soái Hổ: hổ đẹp trai) và Tô Hữu Bằng (Quái Quái Hổ: hổ ngoan ngoãn).

Tháng 2 năm 1989, Tiểu Hổ Đội nhận được sự quan tâm nhiệt liệt của khán giả xem đài. Với thành công của bài hát "Thanh bình quả lạc viên" hát trong album "Happy New Year" cùng hai người chị tiền bối, Tiểu Hổ Đội trở thành tiêu điểm chú ý toàn quốc.

Tháng 4 năm 1989, tại bảo tàng Quốc Phụ, hoạt động mang tên "Ký tên Marathon" thu hút hơn 2 vạn người tham dự. Trở thành dấu mốc lịch sử đánh dấu sự chinh phục của nhóm nhạc trẻ với người hâm mộ.

Tiểu Hổ Đội nhanh chóng trở thành thần tượng của giới trẻ. Không những thế họ còn được nhiều lứa tuổi yêu thích bởi sự hồn nhiên, chân thật và nhiệt tình tuổi trẻ. Những bài hát của Tiểu Hổ Đội đi sâu vào ký ức của từng người đến tận ngày hôm nay.

Tháng 12 năm 1991, Trần Chí Bằng phải nhập ngũ, Tô Hữu Bằng chuẩn bị đi du học nên ban nhạc tan rã, mỗi người phát triển theo một hướng riêng và đều thu được những thành tựu rực rỡ.

Năm 1997, Tô Hữu Bằng và Trần Chí Bằng trở nên nổi tiếng sau bộ phim Hoàn Châu Cách Cách

Năm 2003, Tô Hữu Bằng vào vai Trương Vô Kỵ trong bộ phim truyền hình Ỷ thiên đồ long ký.

Năm 2010, trong Lễ hội mùa xuân của Đài truyền hình TW Trung Quốc, Tô Hữu Bằng có dịp tái hợp cùng hai bạn cũ trên sân khấu và được ủng hộ hết sức nhiệt tình.